基于信息增益校准的在线策略蒸馏用于深度搜索智能体
🧭 On-policy distillation · 信息增益校准 ★ 深度解读
The Chinese University of Hong Kong, Shenzhen · Renmin University of China · Beijing University of Posts and Telecommunications · Beijing Academy of Artificial Intelligence (BAAI)
提出 IG-OPD，用检索后信息增益校准 OPD 的预算与方向先验，修正证据盲监督
📌 工作参考价值（4 点）
- 多轮检索/会话 agent 蒸馏时，teacher 对 query 的似然偏好不等于检索证据的实际效用；可引入 post-retrieval information gain（如文档是否包含答案、证据是否改变后续置信）作为校准信号，对 query/tool-call tokens 做奖励修正，避免好 query 被误罚。
- 按 turn 而不是按 token 长度分配监督权重：搜索/召回 turn 通常短但信息增益高，合成/回答 turn 长但增益低；ITC 的预算重分配可通过 token loss 乘 ratio 实现，无需改 trainer，工程成本低。
- 在电商搜索/推荐中，用户 query 改写、检索式推荐、多跳推理 agent 训练可借鉴 IQC 只修正 action-critical tokens（query 字符串、工具参数）而保持 reasoning tokens 不变；对第一跳正反馈、后续跳负反馈更可靠，可据此设计课程和 cosine ramp 避免早期对搜索行为的过度惩罚。
- 训练后模型推理无额外开销，但蒸馏时需额外做一次 teacher 对 gold answer 的评分，增加约 10% 训练时间/显存，适合离线训练阶段接受。
CriticOPD：用批评引导重写恢复在线策略蒸馏的可靠监督
🧭 On-policy distillation 可靠监督恢复 ★ 深度解读
Brigham Young University · University of North Carolina at Chapel Hill
教师先批判错误，学生从最后错误处重写；教师带批判评分、学生无批判训练，显著提升数学推理蒸馏效果。
📌 工作参考价值（4 点）
- 在电商/Agent 的生成式策略蒸馏中，不要直接对错误的学生轨迹做 token 级教师监督；先让强模型批判错误，截断到最后一个错误后重写，只蒸馏重写 suffix，可避免教师跟错，并保持学生轨迹覆盖。
- 把 critique/reference answer 当 privileged context：教师评分时可见，学生训练和上线都不可见，因此能利用更强反馈而不增加推理时延或 prompt 长度；适合有可验证结果的任务，如 query 改写是否召回商品、结构化生成是否符合 schema、生成代码单测。
- 若业务没有 reference answer，可用 reward model、人工反馈或转化标签替代，但批判质量决定收益；论文显示 73–81% 的 valid error flags 即可带来显著提升。
- 选择“只监督重写后缀、保留错误前缀”的做法，比提前截断或教师接管更接近推理分布；在在线学习或 agent 轨迹蒸馏时可作为降低 occupancy mismatch 的工程原则。
跨分词器在线策略蒸馏再思考：从对齐覆盖到监督可靠性
🧭 跨 tokenizer 蒸馏优化 ★ 深度解读
Alibaba Cloud Computing
跨 tokenizer 在线蒸馏中，严格 1:1 对齐已覆盖多数 token；学生选 top-16 共享词表即可保留大部分收益，补 mismatch span MSE 反而降精度
📌 工作参考价值（4 点）
- 做跨 tokenizer / 跨模型蒸馏时，可先只对严格 1:1 对齐位置做 shared vocabulary 上的 reverse KL，并让学生自选 top-k（如 top-16）词表子集；这能压缩计算和显存，同时保留大部分蒸馏收益。适合生成式推荐中不同 tokenizer 的 Semantic ID 序列蒸馏。
- 新增辅助监督（如 mismatch span MSE、多任务损失）前，先做梯度方向与相对幅度诊断：计算 g_mis 与 g_strict 的 cosine 和 norm ratio；若 cosine 接近 0/负、norm ratio 随训练上升，大概率引入冲突信号，应降低权重或丢弃。
- 评估“监督覆盖”不要只看静态词表 Jaccard，要看 student rollout 上 strict token coverage 以及共享词表实际概率质量；工程上采样几十条 rollout 即可快速判断是否值得做复杂对齐。
- 在 Agent 或推荐 LLM 的蒸馏中，若希望提升 teacher 信号覆盖，不要盲目追求全位置覆盖；优先保证主损失梯度干净，可先在小支持集上验证收益再扩展。
On-Policy 蒸馏中的 Off-Policy 教师模型问题与 SCOUT 框架
🧭 LLM 蒸馏训练 · 教师自适应 ★ 深度解读
Washington University in St. Louis · AWS AI Labs · Carnegie Mellon University · Georgia Institute of Technology
提出 SCOUT：周期性地用学生前缀对教师做结果奖励 RL，缓解教师 off-policy 问题，提升蒸馏效果
📌 工作参考价值（4 点）
- 当用强 LLM 蒸馏小模型做生成式推荐/query 改写/Agent 策略时，教师面对学生生成的中间状态（候选商品序列、推理链）可能给出不可靠的 token 分布。可参考 SCOUT：让学生采样轨迹，取前缀交给教师继续 rollout，用业务可验证奖励（如点击、转化、代码测试结果）做 RL 更新教师，提升教师在这些状态上的监督质量。
- 工程上教师无需每一步同步：每 10 步学生更新后更新一次教师即可保持大部分收益，降低训练成本；前缀长度可以线性递增，从短前缀开始逐渐暴露长序列，避免早期训练过难。
- 若教师是黑盒 API 不可更新，SCOUT 不直接适用，但可以考虑 prompt-based 教师适配或改用可训练的小教师；该方法与已有 loss 级监督信号修改（如信任区域、加权）正交，可以叠加使用。
- 不要把增益简单归因于额外的教师训练：如果没有在学生前缀上条件化教师更新，仅做 same outcome-reward GRPO 提升有限，说明适配学生分布才是关键。
搜索感知 RL 优化 Roblox 多组件查询理解
🧭 生成式Query理解·搜索感知RL ★ 深度解读
Emory University · Roblox Corporation
蒸馏+搜索感知RL，按查询组件给 live search reward，2B/4B小模型超过大模型教师并提升下游搜索
📌 工作参考价值（4 点）
- 对电商/广告搜索 query 理解，可直接复用「一个生成模型输出多组件 JSON 计划 + 每个组件按线上搜索反馈单独给 reward」的框架；SFT 先用大模型蒸馏保证 schema 正确，再上 RL，能训出满足线上延迟的小模型。
- 用于 query 扩展/改写：给每个 fanout query 单独跑线上检索，计算 LLM-judged NDCG，并加搜索重叠 + 词面重叠惩罚，能有效抑制冗余扩召回；这个打分公式可直接迁移到电商搜索的 query expansion / 推荐 query 生成。
- 多 reward 场景优先用 offline groupwise preference（GR-DPO），而不是 on-policy GRPO；因为组件 reward 存在可逃逸的 N/A（intent=none、不生成 fanout），on-policy 会学歪，而固定池 offline 更稳定。若必须 on-policy，需加最低生成约束或强制覆盖。
- 不需要人工标注的 reward 全部来自 live 引擎 + LLM judge，但 train/eval 要用不同 version judge，避免过拟合 judge；线上 shadow 部署后可用行为 GT 持续评估。
全局蒸馏、局部适配：面向可扩展升级推荐的推理蒸馏与产品类型测试时训练
🧭 LLM知识蒸馏与测试时适配用于商品关系推荐 ★ 深度解读
Amazon Everyday Essentials Technologies
将LLM推理蒸馏成轻量embedding对分类器，并用商品类型级测试时训练进一步适配，实现无LLM推理的高效升级推荐
📌 工作参考价值（4 点）
- 离线蒸馏替代在线LLM：在电商catalog级商品关系判定中，用LLM离线生成标注+理由，蒸馏到15.5M参数embedding-pair分类器，推理仅需两个预计算768维向量，速度提升5000倍，成本降低10000倍。该方法可直接迁移到商品替代/互补关系、query-商品匹配等大规模打分任务。
- 保留细粒度标签比二分更有效：蒸馏时保留LLM的四分类（similar、反向升级、升级、不相关）标签比合并成二分类更能让rationale监督发挥作用（AUC 0.912→0.924 vs 0.911→0.911）。在业务中若关系本身有方向或等级，不要为了简化而合并类别。
- 按品类/商品类型做轻量测试时适配：每个product-type用少量专家标注support set（K=32）微调LoRA adapter，比全局统一adapter提升更显著（AUC 0.940 vs 0.929），而且推理成本不变。适合新品冷启动或品类间标准差异大的场景。
- Support set复用降低标注成本：同一批专家标注示例既作为LLM的few-shot演示，又作为测试时训练的梯度监督，最大化样本利用率。工程实现时可将此设计为统一的数据pipeline。
GateDiffInt：门控可控扩散与多意图 LLM 蒸馏的用户行为建模
🧭 用户行为序列去噪与多意图蒸馏 ★ 深度解读
Fudan University · Xiaohongshu Inc.
用可控扩散去噪与 LLM 多意图蒸馏协同解决行为序列中的噪声-意图耦合，提升 CVR 排序
📌 工作参考价值（4 点）
- 行为序列去噪可借鉴 GMCD：按行为类型设置差异化 mask/噪声强度（shallow action 强噪声，deep action 弱噪声），用 gated fusion 融合去噪表示与原始表示，保留比价、加购等弱信号并抑制噪声，对电商 CVR 序列很实用。
- 用 LLM 离线蒸馏结构化 intent 到小模型：让 Gemini 等 LLM 作为 teacher，从用户序列生成 long-term/short-term/latent/conversion 四类意图文本，再用 Qwen3 小模型 + per-intent LoRA 路由蒸馏成可线上使用的向量，避免线上 LLM 高延迟；不同意图独立 LoRA 防止坍缩，可直接套到用户分层/兴趣建模。
- 两阶段训练 + 冻结 backbone 注入 LoRA 联合微调是工业部署关键：预训练去噪/意图模块冻结，仅给 encoder 和 intent extractor 加 LoRA，CVR 梯度只通过 non-gate 分支回流，兼顾任务对齐与训练效率；线上可周更新预训练模块、日更新 LoRA，适合已有精排模型轻量升级。
- 诊断 NIC/NID/IDF 的方法可复用：通过注入噪声测量 intent drift 和弱信号重建保真度，量化噪声-意图耦合，帮助评估去噪模块是否真的保留有用弱信号，而不只是看 AUC。
DOPD：双重在线策略蒸馏
🧭 在线策略蒸馏·动态路由监督
NUS · MMLab, CUHK · PKU · Explore Academy, JD
提出优势感知双蒸馏，缓解特权信息导致的“特权幻觉”，动态路由教师与学生的token级监督
📌 工作参考价值（4 点）
- 蒸馏中引入额外上下文（如用户特征、长期行为）时，需警惕特权幻觉：学生无法获取的输入会导致模仿不可达信号。可借鉴优势感知路由：根据教师与学生的优势差距动态选择监督来源，学生自身生成的部分用自我监督，避免能力与信息不对称混淆。
- token级监督非均匀，优势高的token（如推荐理由中的关键词）承载关键能力。可仿照DOPD，对高优势token加强教师监督，低优token用学生自我蒸馏，提升训练效率与生成质量。
- 框架适用于on-policy样本生成场景（如LLM生成推荐文案、解释），采样学生轨迹后，可同时运行特权教师和特权学生，按token概率比与优势差实时分配监督，工程上易集成至现有RLHF或蒸馏管线。
- 实验中持续学习与分布外泛化提升明显，对推荐模型频繁更新的场景（如新品冷启、热点事件）有参考价值，能稳定性能并缓解灾难性遗忘。
Graph-GRPO：电商搜索相关性生成式推理的依赖感知信用分配
🧭 生成式电商搜索相关性·图信用分配 ★ 深度解读
Nankai University · JD.COM
提出图结构GRPO，将CoT推理步骤构建成依赖图，通过图传播结局奖励到节点，实现细粒度信用分配，提升电商搜索相关性。
📌 工作参考价值（4 点）
- 在结构化推理任务（如电商搜索相关性）中，可将 CoT 步骤间的逻辑依赖显式建模为图，利用图传播结局奖励到局部节点，实现更精细的信用分配，比单纯使用序列级 GRPO 或独立过程奖励更有效。
- 可学习图系数与主策略损失联合优化，使信用传播强度自适应不同训练阶段和样本分布，这一机制可泛化到其他多步推理的 RL 微调场景。
- CoT 随机掩码训练策略：SFT 阶段对推理 token 随机掩码但始终监督决策标签，既保留结构化推理信号又防止过拟合模板化解释，适合作为 RL 初始化。
- 通过图节点多头蒸馏，将 LLM 的结构化推理能力迁移到轻量 Bert 模型，在满足在线低延迟要求的同时保留多维度匹配判别能力，为 LLM 在搜索中的工业部署提供可行方案。